AI 可靠性
共 1 篇文章
- 给 LLM 调用加上监控：Token 用量、延迟、错误率一目了然
用 LangChain 回调机制给 AI Agent 加上可观测性——从运维视角监控每次 LLM 调用的 Token 消耗、延迟、错误率和成本，产出可接入 Prometheus/Grafana 的指标数据。
共 1 篇文章
用 LangChain 回调机制给 AI Agent 加上可观测性——从运维视角监控每次 LLM 调用的 Token 消耗、延迟、错误率和成本，产出可接入 Prometheus/Grafana 的指标数据。